נולד בפולין. בגיל צעיר הצטרף לארגון האצ"ל. ב-1939 השתתף בקורס הסגנים הראשון שערך הארגון בזופובקה שבווהלין והיה מועמד לעלות לארץ-ישראל. עם פרוץ מלחמת העולם השנייה התמנה לאחראי על ריכוז חברי התאים של הארגון בווילנא. יוסף עלה לארץ-ישראל, דרך תורכיה בקבוצה של חמישה עשר איש בסירת מנוע והצטרף אל הארגון בארץ. הידיעות על המתרחש בפולין הכבושה דכאו מאוד את רוחו והוא ראה במאבק למדינה את הצידוק היחידה להמשך חייו. ביומנו כתב: "סכנת מוות מרחפת עלי יום יום... אני בחרתי לי מות שמשון - תמות נפשי עם פלישתים... אולי במותי אהיה לתועלת לעמי, כי יודע אני שבדמי הנשפך ארווה את אדמת המולדת למען הדורות שיבואו". בהגיעו לחיפה נכלא במחנה המעצר בעתלית. כששוחרר הצטרף ללח"י, היה פעיל בחיפה ובאזור הצפון והשתתף בכל פעולות המחתרת שתוכננו ובוצעו בחיפה. הוא גם היה אחראי על מחסני הנשק של הסניף. ככינוי מחתרתי בחר בשם אביו, ברוך. למחייתו היה מוצא עבודות מזדמנות, אך שאף להקדיש את כל זמנו למלחמה בשלטון הזר. בח' בניסן תש"ד (1.4.1944) בעת שעסק עם חבריו בהדבקת מודעות אבל לזכרו של חבר שנפל, נפלט כדור מאקדח של חבר ופגע בו. שוטרים בריטים הוזעקו למקום והחלו במרדף אחר חברי הארגון. יוסף הועבר לבית החולים רוטשילד ונפטר בי' בניסן תש"ד (3.4.1944) הוא הובא למנוחת עולמים בבית העלמין בחיפה.

שמו הונצח בספרים "חיילים אלמונים" ו"בימים אדומים - זכרונות איש לח"י".